可解释的人工智能（XAI）中方法的动机通常包括检测，量化和缓解偏见，并为使机器学习模型更加公平而做出贡献。但是，确切的XAI方法可以如何帮助打击偏见。在本文中，我们简要回顾了NLP研究中的解释性和公平性的趋势，确定了当前的实践，其中采用了解释性方法来检测和减轻偏见，并调查了阻止XAI方法在解决公平问题中更广泛使用的障碍。
translated by 谷歌翻译
可信的研究环境（TRE）S是安全和安全的环境，其中研究人员可以访问敏感数据。随着电子健康记录（EHR），医学成像和基因组数据等医疗数据的增长和多样性，通常在使用人工智能（AI）和机器学习子场（ML）的使用增加医疗领域。这产生了披露从TRES的新类型输出的希望，例如培训的机器学习模型。虽然特定的指导方针和政策存在于TRES中的统计披露控制，但它们并不令人满意地涵盖这些新类型的输出请求。在本文中，我们定义了在TRES内医疗保健机器学习的应用程序和披露的一些挑战。我们描述了各种漏洞，引入AI带来了TRES。我们还提供了与培训ML模型的披露相关的不同类型和风险水平的介绍。我们终于描述了开发和调整政策和工具的新研究机会，以安全地披露从TRES的机器学习输出。
translated by 谷歌翻译